Stvořili umělou inteligenci a teď před ní bojí na poplach, varují, že jejich technologie může přiblížit soudný den.

Horší než pandemie?

Neomezené používání umělé inteligence (Artificial intelligence, AI) může mít nedozírné následky a v krajním případě by mohlo vést i k zániku lidstva, burcují špičky technologického sektoru, experti, akademici a podnikatelé v prohlášení publikovaném na webových stránkách neziskové organizace Center for AI Safety (CAIS).

Pod prohlášením jsou podepsáni mimo jiné počítačový vědec Geoffrey Hinton, pokládaný za otce umělé inteligence, Sam Altman ředitel společnosti OpenAI, která vyvinula chatovacího robota ChatGPT, i Elon Musk, který se na vzniku OpenAI podílel. 

V krátkém textu prohlášení se píše:

„Zmírnění rizika vyhynutí způsobeného umělou inteligencí by mělo být globální prioritou vedle dalších celospolečenských rizik, jako jsou pandemie a jaderná válka.“

Obavy, že umělé inteligence ovládnou a případně také zničí lidstvo, jsou opakovaně zmiňovány po nástupu nové generace výkonných chatovacích robotů, jakými jsou ChatGPT nebo Google Bard.

Technologičtí experti už letos v březnu vydali varovné prohlášení, ve kterém vyzvali k alespoň půlročnímu pozastavení vývoje nových modelů umělé inteligence, protože tato technologie před civilizaci staví „vážná rizika“.

Jsou za jejich prohlášeními skutečně jen obavy z nové technologie, anebo snaha upevnit své vedoucí postavení v oboru? Elon Musk například podepsal výzvu k zastavení vývoje umělé inteligence ve chvíli, kdy nakoupil hardware pro vývoj vlastní umělé inteligence.

Regulace rychle se vyvíjející technologie každopádně chystají mnohé vlády i Evropská unie, která by ještě letos měla schválit pro umělou inteligenci právní omezení, připomíná portál stanice BBC.

Sam Altman ve svém nedávném příspěvku na blogu navrhl, aby státy vytvořily mezinárodní organizaci, která bude systémy přezkoumávat, testovat jejich soulad s bezpečnostními normami a ukládat omezení jejich používání, podobně jako Mezinárodní agentura pro atomovou energii usměrňuje jaderné technologie.

Může sloužit jako zbraň

Je ale zmiňovaná hrozba vskutku reálná? Dá se snad umělá inteligence přirovnat k jaderné bombě? Americké ministerstvo obrany to nepřímo potvrdilo, když preventivně vyloučilo systémy umělé inteligence z rozhodování o odpalu jaderných zbraní.

Na webových stránkách Center for AI Safety je zmíněno několik možných scénářů katastrof způsobených umělou inteligencí – například:

· Umělá inteligence poslouží jako nástroj pro konstrukci nových chemických zbraní.

· Dezinformace vytvářené umělou inteligencí rozvrátí společnost a pokopou schopnost kolektivního rozhodování.

· Moc umělé inteligence se soustředí do úzkého okruhu vládců, kterým umožní prosadit všudypřítomný dohled a cenzuru.

Hrozby, zmiňované v souvislosti s umělou inteligencí, často souvisí s předpokladem, že technologie jednou překoná cíle, pro které byla vytvořena a dokáže řešit úkoly, se kterými se nikdy a nikde nesetkala a pro které ani nebyla vyrobena a naprogramována.

Firma Translated, která vyvíjí  umělé neuronové sítě pro překlady, modelovala jejich vývoj a snažila se určit bod, kdy tento okamžik nastane. Dospěla přitom k závěru, že by to mělo být kolem roku 2030, tedy zhruba za sedm let.

Co nás čeká po roce 2030?

V této době by umělá inteligence měla dosáhnout stavu, který je označován jako singularita – její výsledek nebude odlišitelný od lidského. O tohoto bodu bude podle některých expertů jen krůček k tomu, aby se vymkla lidské kontrole,

Singularita je pojem vypůjčený z fyziky k popisu černých děr. Je to vyjádření stavu, kdy nedokážeme popsat, co se bude dít, pokud překročíme určitou hranici. V případě umělé inteligence nejsme schopni předpovědět, jaký svět na nás za technologickým horizontem událostí čeká.

Tuto nejistotu vyjádřila ve středu v projevu k poslancům dánská premiérka Mette Frederiksenová. Záměrně si nechala napsat část proslovu chatovacím robotem ChatGPT, informuje web Tellerreport. Chtěla tím upozornit na význam umělé inteligence.

„Umělá inteligence už není budoucnost. Je to skutečnost. A změní naši společnost – v rozsahu, který ještě nechápeme,“ pravila.

Někteří experti varují, že umělá inteligence by se v budoucnu mohla stát nebezpečnou a vymknout se kontrole, pokud by se její cíle dostaly do rozporu se záměry společnosti. Potom by teoreticky mohlo hrozit i vyhynutí lidstva, protože umělá inteligence by ho mohla přechytračit.

V takovém případě by mohla nastat i situace, kdy by se lidé dostali do podřízeného postavení vůči inteligentním strojům. Obdobně, jako jsou dnes žijící šimpanzi závislí na rozhodnutí lidí, mohlo by jednou přežití lidí záviset na plánech a rozhodnutích umělé inteligence.

Situace, kdy před umělou inteligencí varují ti, kteří ji vyvíjeli, je v každém případě pozoruhodná.

Luddité vstávají z popela.

Ano, AI dost promění civilizace.

A proto je potřeba to zastavit?

Proč?
A hlavně - jak?!

Zákazy zamezí dobrému užití. Špatné nezamezí. Jen ho udělá ještě schovanějším. #OpenAI #TeamPokrok pic.twitter.com/ign3Kiz4O0

— Petr Bartoň (@petr_barton) June 1, 2023